“AI女友”网站被黑，190万用户数据泄露，你心动了吗？
提供“AI女友”服务的网站Mua*被黑了，数据库被黑客偷了。
据HIBP网站统计，泄漏数据中包含190万用户邮箱数据以及用于生成“AI女友”的prompt语句。部分邮箱使用的是个人邮箱，可以直接看出用户姓名或者关联到职场社交平台，对应到真人。
其中有些prompt包含用户特殊爱好，那些用户慌了吗？
国外的用户估计慌了，国内的读者应该不受影响。
点击左下角
关注我们
角色模拟
我们知道，最开始，ChatGPT这类AI出现时，就有很多教程告诉我们，你可以给AI赋予角色，来进行角色模拟。
比如，指导AI“你是一个翻译大师，你需要将用户的输入由英文翻译为中文，用户的输入是什么格式，你的输出是什么格式，翻译有哪些要求”，类似于这样的角色和技能的设置，可以让AI大模型更好地完成任务。
人物模拟
既然AI可以模拟各类工作角色，如翻译、老师、网络安全专家等，自然就有人想到AI还可以模拟一些关系角色，如女朋友、男朋友等。
看过电影《她》的读者，一定知道其中存在一个AI，故事的主人公爱上了这个“拥有迷人的声线，温柔体贴而又幽默风趣”的AI。
这个电影产出的一个meme图，飞鹰甚至想给这个图配文，“没有你的日子里，我真的好伤心
我们去国内的几个头部AI站点上查看，基本都支持“角色模拟”这类"智能体"，部分平台显示对话数，可以看出，这类模拟模型非常火热。
甚至还有模拟不同性格的女友，以及模拟如何哄女朋友的模型。用户的需求，真是超乎想象。
飞鹰很好奇，这类模型真的有用吗？学好之后，能够交到女朋友吗？
不审核版本
这些智能体，不管是国内还是国外的，都会表明大模型的结果是经过审核的，都会有内容审核团队。保证AI的输出是符合法律法规的，比如，不能出现暴力、恐怖、色情等内容。
既然有审核的版本，那就有不审核的版本，本文的主角M***，号称提供“不审核的”AI，因此，你可以在上面生成任何你想要的AI女朋友“模型”，包含图片和对话等，不受限制。由于“不审核”，用户生成的内容比其他平台的限度要大。
正是由于“不审核”，平台吸引到了大量用户，用户在平台上创建“AI女友”，分享“AI女友生成prompt”等。
被黑
黑客告诉媒体，“他准备去M***网站上[beep]，发现这个网站就是一些开源项目组合而成，没要多久，他就找到了网站的漏洞，然后就将网站给黑了”。
黑客看了数据库数据，发现里面的一些“生成女友prompt”包含一些违法的数据，会生成一些法律不允许的内容。
于是黑客通知了媒体，披露了这个事情。
反应
对于被黑，M***公司通知了用户，说明网站发生了信息泄漏，并表示他们不存储用户的prompt。
而实际泄漏的数据，根据HIBP的报道，是包含用户的prompt以及邮箱的，并且prompt是可以和邮箱对应起来的，即用户使用模型生成了一些啥，平台都是知道的。
而很多用户使用的是个人邮箱，有些邮箱就是用户的名字信息，还有一些邮箱可以和社交媒体关联起来，进而对应到真人。
通过分析这些prompt，媒体发现，其中存在一些“不健康”甚至“违法”的癖好。
目前已经出现一些勒索诈骗的案例，可能和这个数据泄漏有关。
总结
AI角色模拟，作为AI大模型的一种使用方式，是非常有效的。
关系类角色，如女朋友/男朋友，满足用户的情感需求。这也是很多用户真实存在的需求。
未经审核的AI，结合关系类角色的模拟，给了很多用户遐想，满足了用户的需求，然而一些超过限度的内容是可能会给用户带来伤害的。
由于这是一个国外的AI，国内用户是不用慌的。
亲爱的读者，你用过这类角色模拟的AI吗？当你不使用的时候，你是什么样的精神状态？
飞鹰试了一下，在某AI平台上，使用prompt“生成一张女朋友的照片”，AI生成如下，你心动了吗？
祝大家在现实生活中都找到女朋友/男朋友，对于这类AI女友/男友，你怎么看？